DNQ: Deep Nash Q-Network for Partially Observable n-Player Games
DNQ:部分可观测 n 人博弈的深度纳什 Q 网络
🧭 多智能体博弈 · 求解器监督策略学习
交替训练框架,利用均衡求解器为多智能体策略提供监督信号,并通过成对分解实现可扩展的博弈训练。
📌 工作参考价值(4 点)
- 均衡求解器作为策略监督:对于电商竞价广告、多智能体资源分配等非平稳环境,可直接将外部博弈求解器(如 Nash 均衡计算)生成的目标分布作为策略模仿的监督信号,避免传统 RL 的不稳定训练。
- 成对分解降低复杂度:当智能体数量多时,将 n 人博弈分解为每对智能体的双人博弈,大幅降低均衡求解成本和训练时间,适合大规模多智能体场景(如多商家竞价)。
- 掩码策略用于合法动作:在策略模仿时对不合法的动作(如超出预算的竞价)进行掩码,只对合法动作分布计算 KL 散度,确保策略始终满足约束,可直接借鉴到带约束的推荐出价策略中。
- 共享批评家摊销收益学习:用一个共享网络预测所有智能体对的收益矩阵,减少参数并加速收敛,适用于智能体间存在对称或相似属性的场景,如电商平台多个类似卖家竞价。